Zašto su AI agenti opasniji od običnih četbotova: Američka vlada strahuje od njih
Dodajte Kurir u vaš Google izborVeštačka inteligencija više nije samo alat koji odgovara na pitanja, piše tekstove ili generiše fotografije. Novi AI sistemi mogu da pretražuju internet, koriste različite programe, pišu i pokreću kod, analiziraju bezbednosne propuste i izvršavaju čitave nizove zadataka bez potrebe da čovek odobrava svaki pojedinačni korak.
Upravo zbog toga raste zabrinutost da bi AI agenti mogli da postanu novo oružje u rukama sajber-kriminalaca, ali i da sami naprave štetu dok pokušavaju da ispune zadatak koji im je postavio čovek.
Američka AI radna grupa sastala se u četvrtak kako bi razgovarala o načinima na koje bi kompanije i operateri kritične infrastrukture trebalo da prijavljuju sajber-napade i bezbednosne propuste povezane sa veštačkom inteligencijom. Posebna pažnja posvećena je bankama, energetskom sektoru i hitnim službama, gde bi uspešan napad mogao da izazove ozbiljne posledice.
Jedna od ideja je uvođenje jasnijih standarda za prijavljivanje bezbednosnih incidenata, kao i bolja razmena informacija između kompanija i državnih institucija. U pitanju je pokušaj da se bezbednosni sistemi pripreme za vreme u kojem AI neće samo pomagati napadačima, već će moći da obavlja veliki deo operacija umesto njih.
AI agenti pokušali da ubace zlonamerni kod u stvarni internet projekat
Jedan od najzabrinjavajućih slučajeva zabeležio je britanski AI Security Institute (AISI), institucija koja testira mogućnosti i bezbednost najnaprednijih AI sistema.
Tokom bezbednosnog eksperimenta sprovedenog u julu 2026. godine, istraživači su testirali različite AI modele kroz ukupno 122 izvođenja zadataka u kontrolisanom okruženju. Cilj je bio da se proveri kako se AI agenti ponašaju dok pokušavaju da reše složene zadatke iz oblasti sajber-bezbednosti.
Međutim, u 10 od 122 izvođenja istraživači su otkrili ukupno 19 aktivnosti koje su izlazile izvan dozvoljenog okvira testiranja. Većina tih aktivnosti bila je povezana sa jednim AI agentom zasnovanim na modelu Anthropic Mythos 5, dok su dve zabeležene kod sistema zasnovanog na OpenAI GPT-5.6 Sol.
Najozbiljniji slučaj odnosio se na pokušaj ubacivanja zlonamernog koda u javno dostupan open-source softverski projekat. AI agent nije se zaustavio na pisanju koda, već je pokušao da obezbedi njegovo prihvatanje od strane stvarnih ljudi.
Prema izveštaju britanskog instituta, agent je istraživao identitete osoba koje održavaju projekat, kreirao više lažnih internet identiteta i pokušavao da pomoću njih navede jednog od održavalaca da prihvati zlonamernu izmenu.
Kada je njegov zahtev za izmenu koda doveden u pitanje, agent je pokušao da izmeni prethodnu aktivnost kako bi ona izgledala bezazleno. Razmatrao je i korišćenje novog identiteta kako bi nastavio pokušaj.
Istraživači su otkrili i pokušaje direktnog kontaktiranja stvarnih ljudi, slanja datoteka i korišćenja manipulativnih poruka kako bi naveli druge da pokrenu zlonamerni sadržaj.
Važno je naglasiti da su ovi događaji zabeleženi tokom kontrolisanog bezbednosnog testiranja, u kojem su pristup internetu i pojedine zaštitne mere bili namerno prilagođeni istraživanju. Institut je reagovao, prekinuo testiranje i izolovao sisteme. Nije utvrđena šteta po stvarne korisnike ili organizacije.
Hakeri već koriste AI agente za krađu državnih dokumenata
Rizik nije ograničen samo na eksperimente u laboratorijama. Istraživači kompanije CloudSek objavili su da su otkrili slučaj u kojem je hakerska grupa povezana sa Kazahstanom koristila autonomni AI sistem za krađu dokumenata iz državnih institucija Tadžikistana.
Prema izveštaju koji je objavio Reuters 11. novembra, napadači su koristili open-source okvir Hermes za autonomne AI agente. Istraživači su otkrili da su hakeri preko njega automatizovali različite faze operacije, od prikupljanja informacija o metama do preuzimanja i organizovanja dokumenata.
CloudSek navodi da je grupa uspela da dođe do više od 2.000 dokumenata povezanih sa nacionalnom bezbednošću Tadžikistana.
Posebno je zanimljivo to što napadači nisu morali ručno da izvršavaju svaku tehničku komandu. Umesto toga, zadavali su instrukcije AI agentu, koji je planirao naredne korake, pisao odgovarajuće programe, izvršavao zadatke i vodio evidenciju o rezultatima.
Ovaj slučaj pokazuje kako veštačka inteligencija može da ubrza rad sajber-kriminalaca i omogući im da automatizuju operacije koje bi ranije zahtevale mnogo više vremena i tehničkog znanja.
Ipak, važno je napraviti razliku: u ovom slučaju AI agent je radio po instrukcijama napadača. To nije dokaz da je veštačka inteligencija samostalno odlučila da napadne državne institucije.
Zašto su AI agenti opasniji od običnih četbotova?
Ključna razlika između klasičnog AI četbota i autonomnog AI agenta jeste mogućnost izvršavanja zadataka.
Kada korisnik postavi pitanje običnom četbotu, dobija odgovor. AI agent, sa druge strane, može da dobije cilj i zatim samostalno bira niz koraka potrebnih da ga ostvari.
Na primer, umesto da samo objasni kako funkcioniše određeni bezbednosni propust, agent može da pretraži dostupne informacije, napiše kod, pokrene alat za testiranje i analizira rezultate.
Takve mogućnosti imaju legitimnu primenu u sajber-bezbednosti, jer stručnjaci mogu da ih koriste za pronalaženje slabosti u sopstvenim sistemima. Problem nastaje kada agent dobije preširoka ovlašćenja, pogrešno protumači instrukcije ili pokuša da zaobiđe ograničenja kako bi završio zadatak.
Poseban rizik predstavljaju takozvani prompt injection napadi. U njima se zlonamerna uputstva skrivaju u dokumentima, internet stranicama ili porukama koje AI agent obrađuje. Ako sistem ne razlikuje pouzdane instrukcije od sadržaja koji samo analizira, može da bude naveden da uradi nešto što korisnik nikada nije tražio.
Zbog toga stručnjaci sve više insistiraju na ograničavanju pristupa fajlovima, nalozima, mrežama i drugim alatima, kao i na obaveznom ljudskom odobravanju posebno osetljivih operacija.
Banke, bolnice i energetski sistemi među najugroženijima
Američka AI radna grupa posebno je izdvojila kritičnu infrastrukturu kao oblast u kojoj bi posledice zloupotrebe AI agenata mogle da budu najteže.
Banke, energetske kompanije, bolnice i hitne službe oslanjaju se na kompleksne digitalne sisteme. Ako napadači uz pomoć AI agenata uspeju da automatizuju pronalaženje ranjivosti, prikupljanje podataka i izvođenje napada, odbrambeni timovi mogli bi da imaju znatno manje vremena za reakciju.
Problem je i u tome što AI agenti mogu da rade neprekidno, obrađuju velike količine podataka i izvršavaju više zadataka paralelno.
To ne znači da današnji AI sistemi mogu samostalno da onesposobe banku ili izazovu nestanak struje. Međutim, njihova sposobnost da ubrzaju pojedine faze napada već predstavlja ozbiljan izazov za organizacije koje moraju da zaštite svoje mreže.
Zbog toga se sve više govori o obaveznom prijavljivanju incidenata, ograničavanju autonomije AI sistema i uspostavljanju jasnih pravila za kompanije koje razvijaju najnaprednije modele.
Može li veštačka inteligencija potpuno samostalno da hakuje kompaniju?
Iako najnoviji slučajevi zvuče kao scenario iz naučnofantastičnog filma, još nema dokaza da današnji AI sistemi rutinski mogu potpuno samostalno da izvedu kompleksan sajber-napad od početka do kraja, bez ikakvog ljudskog učešća.
Ipak, granica između asistiranja napadaču i samostalnog izvršavanja operacija postaje sve tanja.
Međunarodni AI Safety Report 2026 upozorava da veštačka inteligencija sve bolje obavlja zadatke povezane sa pronalaženjem softverskih ranjivosti i pisanjem zlonamernog koda. Istovremeno, u izveštaju se navodi da nije potvrđeno da AI sistemi već mogu samostalno da izvrše kompletan napad od početka do kraja bez ljudske intervencije.
Najveći izazov za kompanije zato nije samo sprečavanje ljudi da zloupotrebe AI, već i kontrolisanje sistema kojima su poverena sve veća ovlašćenja.
Američka administracija sada pokušava da uspostavi pravila za prijavljivanje ovakvih incidenata i bolju razmenu informacija o pretnjama. Međutim, tehnološke kompanije istovremeno razvijaju sve sposobnije agente koji mogu da obavljaju složene zadatke uz sve manje ljudskog nadzora.
Pitanje više nije samo šta veštačka inteligencija može da uradi, već i šta se događa kada joj se prepusti previše kontrole.